Dalam pemilihan Perhimpunan Agung UMNO 1987, beliau berjaya mengalahkan Musa Hitam bagi jawatan Timbalan Presiden UMNO dengan majoriti tipis, 40 undi.

Encik Ghafar Baba dilantik oleh Dr Mahathir Mohamad menjadi Timbalan Perdana Menteri Malaysia selepas Musa Hitam meletakkan jawatan sebagai Timbalan Perdana Menteri Malaysia pada 1987.

Pada 1993 Tun Ghafar berundur daripada jawatan Timbalan Presiden UMNO dan Timbalan Perdana Menteri apabila kedudukannya sebagai Timbalan Presiden UMNO dicabar oleh Datuk Seri Anwar Ibrahim. Tujuannya bagi mengelak perpecahan dalam parti dan mempertahankan kestabilan negara. Surat perletakan jawatan ditulis pada kertas Penerbangan Malaysia di bilik VIP Lapangan Terbang Subang untuk berlepas ke Korea Selatan bagi tugas rasmi.[4]